1 00:00:01,567 --> 00:00:05,868 Sistemele AI ar putea să știe mult mai multe despre noi 2 00:00:06,033 --> 00:00:08,367 decât știm despre asta. 3 00:00:08,534 --> 00:00:11,601 Marea întrebare este, suntem gata să împărtășim 4 00:00:11,767 --> 00:00:14,400 vârful evolutiv totem 5 00:00:14,567 --> 00:00:17,466 cu ceva al nostru creaţie care poate fi 6 00:00:17,467 --> 00:00:19,667 extrem de puternic? 7 00:00:19,834 --> 00:00:20,868 Wow. 8 00:00:22,100 --> 00:00:23,366 Să recunoaștem. 9 00:00:23,367 --> 00:00:25,566 Sunt atât de multe conspirații guvernamentale, 10 00:00:25,567 --> 00:00:29,166 poate fi greu de spus ce este real și ce nu. 11 00:00:29,167 --> 00:00:30,566 Numele meu este Andrew Bustamante 12 00:00:30,567 --> 00:00:34,100 si eu sunt fosta ofițer secret de informații CIA. 13 00:00:34,267 --> 00:00:36,901 Și mă duc la un test de presiune cel mai senzațional, 14 00:00:37,067 --> 00:00:40,167 rupt-de-titluri teorii ale conspirației acolo 15 00:00:40,334 --> 00:00:42,467 pentru a vă ajuta să separați faptele din ficțiune. 16 00:00:57,968 --> 00:01:00,367 Ceea ce a fost odată înrădăcinat science fiction este acum 17 00:01:00,534 --> 00:01:01,999 cel mai tare cuvantul la moda de astazi. 18 00:01:02,000 --> 00:01:04,267 - AI. - AI. 19 00:01:04,434 --> 00:01:05,601 - AI. - AI. 20 00:01:05,767 --> 00:01:06,800 Inteligenţă artificială. 21 00:01:06,801 --> 00:01:08,367 Se întâmplă. Se întâmplă foarte repede. 22 00:01:09,767 --> 00:01:12,701 Nu este doar antropic, Google și OpenAI. 23 00:01:12,868 --> 00:01:15,300 Se pare că fiecare companie din lumea se concentrează asupra utilizării 24 00:01:15,467 --> 00:01:17,968 această tehnologie la rapid crește inovația 25 00:01:18,133 --> 00:01:20,868 și accelerați tehnologic descoperiri pentru omenire. 26 00:01:21,033 --> 00:01:23,467 Noi remedii pentru boli, noi tipuri de energie. 27 00:01:23,634 --> 00:01:25,099 Toată lumea poate fi mai productiv, 28 00:01:25,100 --> 00:01:26,267 face mult mai mulți bani. 29 00:01:28,100 --> 00:01:30,200 Dar dacă experiența mea are m-a invatat orice, 30 00:01:30,367 --> 00:01:34,000 este că fiecare tehnologie nouă reprezintă, de asemenea, o nouă amenințare. 31 00:01:34,167 --> 00:01:36,566 Acest lucru poate părea real, dar nimic nu s-a întâmplat. 32 00:01:36,567 --> 00:01:40,167 Este generat de AI și periculos de convingător. 33 00:01:40,334 --> 00:01:42,367 Aici avem un complet obiect alcătuit. 34 00:01:42,534 --> 00:01:45,667 Este deja obișnuită IA manipulăm realitatea noastră la 35 00:01:45,834 --> 00:01:46,968 o scară fără precedent? 36 00:01:47,968 --> 00:01:50,367 Adică, uite cât de real toate astea arată. 37 00:01:51,501 --> 00:01:53,099 Este fals, totuși. 38 00:01:53,100 --> 00:01:56,766 Prima mea experiență cu AI a fost în 2007, când eram la CIA. 39 00:01:56,767 --> 00:01:59,867 Și știam că tehnologia ar revoluționa lumea, 40 00:01:59,868 --> 00:02:03,067 Nu mă așteptam ca în ziua aceea se întâmplă în 2022. 41 00:02:03,234 --> 00:02:06,100 Știri de ultimă oră chiar acum, Rusia a atacat Ucraina. 42 00:02:06,267 --> 00:02:08,067 Forțele ruse au invadat Ucraina 43 00:02:08,234 --> 00:02:10,300 pe uscat, aer și mare joi. 44 00:02:14,100 --> 00:02:16,400 La o lună după Rusia a invadat Ucraina, 45 00:02:16,567 --> 00:02:18,367 un videoclip cu ucraineană Președintele Zelensky 46 00:02:18,534 --> 00:02:20,467 instruindu-şi poporul a se preda 47 00:02:20,634 --> 00:02:22,901 a fost de fapt difuzat pe Televiziunea ucraineană. 48 00:02:29,667 --> 00:02:31,099 Dar nu era deloc Zelensky. 49 00:02:31,100 --> 00:02:34,601 A fost un deepfake generat de AI care a fost creat de hackeri. 50 00:02:34,767 --> 00:02:37,067 Dar la acea vreme, așa era suficient de convingător pentru a păcăli 51 00:02:37,234 --> 00:02:38,999 radiodifuzorii din Ucraina. 52 00:02:39,000 --> 00:02:41,767 De atunci, capacitatea AI de a produc din ce în ce mai mult 53 00:02:41,934 --> 00:02:44,067 mass-media cu aspect realist are avansat la 54 00:02:44,234 --> 00:02:46,000 o rată fără precedent. 55 00:02:46,167 --> 00:02:49,166 Ți-am spus vreodată povestea a fisticului magic? 56 00:02:49,167 --> 00:02:52,767 Granița dintre realitate iar ficțiunea dispare. 57 00:02:52,934 --> 00:02:56,167 - Oh! - Oh, şi un mare mâna dreaptă de la Zuckerberg! 58 00:02:56,334 --> 00:02:59,667 E rănit! E rănit! 59 00:02:59,834 --> 00:03:01,501 În fiecare secundă din fiecare zi, 60 00:03:01,667 --> 00:03:04,901 Instrumentele bazate pe inteligență artificială sunt devenite din ce în ce mai bine. 61 00:03:05,067 --> 00:03:07,501 Nu doar la creare deepfakes, dar practic 62 00:03:07,667 --> 00:03:10,100 orice ne bazam cândva oamenii să facă. 63 00:03:10,267 --> 00:03:12,067 Fie ca iti place sau nu, viața ta va fi 64 00:03:12,234 --> 00:03:14,666 afectate de AI să în mare măsură. 65 00:03:14,667 --> 00:03:17,701 La acest episod, merg dincolo de teoria conspirației 66 00:03:17,868 --> 00:03:20,166 și investigând dacă inteligența artificială este 67 00:03:20,167 --> 00:03:23,501 evoluând din potenţial cea mai mare inovație a noastră în 68 00:03:23,667 --> 00:03:26,166 o amenințare fără precedent la umanitate. 69 00:03:26,167 --> 00:03:27,300 Acesta este un joc diferit acum. 70 00:03:27,467 --> 00:03:29,000 Suntem într-o ligă diferită aici în termeni 71 00:03:29,167 --> 00:03:30,266 a capacităţii. 72 00:03:30,267 --> 00:03:33,100 Manipularea nu numai media, ci istoria însăși. 73 00:03:34,367 --> 00:03:35,999 eu vorbesc cu experți de top, 74 00:03:36,000 --> 00:03:38,801 profesori și dezvoltatori, și conducându-l pe al meu 75 00:03:38,968 --> 00:03:41,366 experiment pentru a investiga dacă inteligența artificială 76 00:03:41,367 --> 00:03:45,100 va schimba lumea, sau dacă are deja. 77 00:03:45,267 --> 00:03:48,266 Deci crezi că un AI este le vor schimba ideile...? 78 00:03:48,267 --> 00:03:50,000 În 20 sau 30 de minute, absolut. 79 00:03:51,267 --> 00:03:52,566 La bine și la rău, 80 00:03:52,567 --> 00:03:55,667 vom putea controla ce urmeaza? 81 00:03:55,834 --> 00:03:58,300 Există o șansă de 70%. toţi oamenii morţi sau 82 00:03:58,467 --> 00:04:00,501 ceva la fel de rău. - Uau, doar tu... 83 00:04:00,667 --> 00:04:02,099 OK, um... 84 00:04:02,100 --> 00:04:03,901 Toți oamenii morți? 85 00:04:04,067 --> 00:04:04,968 Corecta. 86 00:04:19,667 --> 00:04:22,601 Când te gândești cât de departe și AI rapid s-a dezvoltat 87 00:04:22,767 --> 00:04:24,300 din punct de vedere video si fotografii 88 00:04:24,467 --> 00:04:26,266 într-o perioadă atât de scurtă, 89 00:04:26,267 --> 00:04:27,701 este chiar șocant. 90 00:04:27,868 --> 00:04:30,300 Și când te mai gândești despre posibilităţile pe care 91 00:04:30,467 --> 00:04:33,000 această tehnologie ar putea fi nevoită modelează modul în care oamenii văd 92 00:04:33,167 --> 00:04:35,701 lumea, începe să devină înfricoșător. 93 00:04:35,868 --> 00:04:38,367 Pentru a înțelege pe deplin realul potentialul acestei tehnologii, 94 00:04:38,534 --> 00:04:39,466 Trebuie să vorbesc cu cineva 95 00:04:39,467 --> 00:04:41,200 care o trăiește și o respiră în fiecare zi. 96 00:04:46,968 --> 00:04:49,300 Așa că astăzi vorbesc cu Christopher Meerdo, 97 00:04:49,467 --> 00:04:52,567 un profesor la Universitate din nordul Texasului care este specializat 98 00:04:52,734 --> 00:04:54,767 în mediile create de AI. 99 00:04:54,934 --> 00:04:56,466 L-am rugat pe Chris să ia o privire criminalistică 100 00:04:56,467 --> 00:04:58,367 la deepfake-ul Zelensky și arată-mi 101 00:04:58,534 --> 00:05:00,167 cum evoluează această tehnologie. 102 00:05:02,367 --> 00:05:04,467 Acesta este un exemplu destul de timpuriu 103 00:05:04,634 --> 00:05:06,868 a unui deepfake și în esență utilizări 104 00:05:08,000 --> 00:05:09,466 tehnologie de recunoaștere facială 105 00:05:09,467 --> 00:05:12,601 pentru a identifica anumite puncte pe fata. 106 00:05:12,767 --> 00:05:16,167 Asta pare departe de a fi perfect. Cum a fost capabil să păcălească oamenii? 107 00:05:16,334 --> 00:05:18,367 A fost injectat în o sursă de știri legitimă 108 00:05:18,534 --> 00:05:20,167 pentru ucraineni. Când a apărut asta... 109 00:05:21,267 --> 00:05:24,666 în contextul acelei știri organizație, ai începe 110 00:05:24,667 --> 00:05:27,601 să mă gândesc că poate sunt unele legitimitate pentru aceasta. 111 00:05:27,767 --> 00:05:31,067 Vă puteți gândi la succesul un deepfake în ceea ce privește acestea 112 00:05:31,234 --> 00:05:32,466 un fel de procente, știi, 113 00:05:32,467 --> 00:05:35,501 cat de reusit poate fi daca prosti 114 00:05:35,667 --> 00:05:38,501 75% dintre oameni față de 10% dintre oameni? 115 00:05:38,667 --> 00:05:41,766 Mai ales acest tip de nou lumea în care intrăm, unde 116 00:05:41,767 --> 00:05:45,801 inteligența artificială este va fi complet 117 00:05:45,968 --> 00:05:48,801 indiscernibilă din imaginile reale. 118 00:05:48,968 --> 00:05:52,100 Cât de mai bune sunt deepfake-urile acum in comparatie cu asta? 119 00:05:52,267 --> 00:05:53,667 Vă pot arăta un exemplu în acest sens aici. 120 00:06:06,000 --> 00:06:08,167 lipsesc. Doamne! 121 00:06:09,501 --> 00:06:11,466 Wow. 122 00:06:11,467 --> 00:06:13,167 Am mai mult păr pe față decât oricare altul 123 00:06:13,334 --> 00:06:14,167 soldat nord-coreean. 124 00:06:15,968 --> 00:06:18,466 - E nebun, omule. - Acesta a fost un videoclip adevărat. 125 00:06:18,467 --> 00:06:20,400 Am putut face un fel de schimb de fețe aici 126 00:06:20,567 --> 00:06:22,667 și un fel de te arunca in imagine. 127 00:06:22,834 --> 00:06:26,968 Se face asta practic o mare ecuaţie matematică care 128 00:06:27,133 --> 00:06:29,701 înțelege ce anume imaginea poate arăta. 129 00:06:29,868 --> 00:06:32,267 Și când folosim modelul, chiar lucrăm în asta 130 00:06:32,434 --> 00:06:33,868 spațiu numeric aici în centru. 131 00:06:35,300 --> 00:06:38,467 Și apoi o dată acea matematică problema a fost rezolvata, 132 00:06:38,634 --> 00:06:40,901 avem acest decodor aici că cam ia de la 133 00:06:41,067 --> 00:06:43,099 un spațiu numeric și îl transformă înapoi în ceva care 134 00:06:43,100 --> 00:06:45,300 tu și cu mine putem recunoaște ca imagine. 135 00:06:45,467 --> 00:06:46,901 Wow. 136 00:06:47,067 --> 00:06:50,400 Și este și mai ușor astăzi ca niciodată să creeze 137 00:06:50,567 --> 00:06:52,200 un videoclip fals AI. 138 00:06:55,701 --> 00:06:57,666 Puteți accesa site-uri web și tastați solicitări 139 00:06:57,667 --> 00:06:59,100 și doar le generează. 140 00:07:04,367 --> 00:07:08,467 Deci aceasta este o serie de recente videoclipuri virale ale agenților ICE 141 00:07:08,634 --> 00:07:10,501 angajându-se cu publicul larg... 142 00:07:10,667 --> 00:07:12,300 Înapoi, înapoi! 143 00:07:12,467 --> 00:07:13,467 Nu! 144 00:07:13,634 --> 00:07:16,167 Nu astăzi și nu în această biserică! 145 00:07:16,334 --> 00:07:18,567 ... asta a fost un fel difuzate pe diverse 146 00:07:18,734 --> 00:07:20,167 platforme de social media. 147 00:07:20,334 --> 00:07:22,999 Știm chiar acum dacă acestea sunt reale sau false, sau asta este 148 00:07:23,000 --> 00:07:24,000 ce cautam? 149 00:07:24,167 --> 00:07:25,567 Așa că aș vrea să încerci a ghici. 150 00:07:26,667 --> 00:07:28,100 Asta e greu. 151 00:07:29,100 --> 00:07:31,099 Adică, dacă te vei întoarce la acel predicator, 152 00:07:31,100 --> 00:07:32,667 ca acesta, nu? 153 00:07:32,834 --> 00:07:34,099 Deci asta este una interesanta pentru mine 154 00:07:34,100 --> 00:07:37,000 pentru că nu pare foarte credibil pentru mine. 155 00:07:37,167 --> 00:07:39,099 Și poate că acesta este un bun oportunitatea de a introduce 156 00:07:39,100 --> 00:07:41,999 ideea de ciudatenie, nu? 157 00:07:42,000 --> 00:07:44,867 Situația pare așa ciudat pentru că, 158 00:07:44,868 --> 00:07:47,067 știi, este un predicator, nu? 159 00:07:47,234 --> 00:07:49,200 Deci asta înseamnă că asta este Generat de AI? 160 00:07:49,367 --> 00:07:50,334 Este, da. 161 00:07:50,501 --> 00:07:52,267 Asta e fascinant bine făcut. 162 00:07:52,434 --> 00:07:53,400 Hai să facem altul. 163 00:07:55,534 --> 00:07:56,601 Deci clipul asta... 164 00:07:57,567 --> 00:08:01,501 mi s-a părut real pentru că camera se mișca, 165 00:08:01,667 --> 00:08:04,267 poți vedea genul degetului mare în fața lentilei, 166 00:08:04,434 --> 00:08:07,701 și apoi în fundal, detaliile din mediu, 167 00:08:07,868 --> 00:08:10,666 petele umede de pe pământ, oamenii care observă 168 00:08:10,667 --> 00:08:13,701 acest eveniment foarte dramatic, are acel element de haos. 169 00:08:13,868 --> 00:08:16,400 Și ai exact dreptate. Acesta este un video real. 170 00:08:16,567 --> 00:08:18,367 Aș vrea să-ți arăt încă un exemplu. 171 00:08:18,534 --> 00:08:19,800 Domnule, înapoi! 172 00:08:19,801 --> 00:08:21,666 Am autoritate în acest bloc exact cum crezi că faci! 173 00:08:21,667 --> 00:08:23,701 Nu poți opri oamenii strada fara mandat! 174 00:08:23,868 --> 00:08:25,100 Și îți spun chiar acum, 175 00:08:25,267 --> 00:08:26,467 federal sau nu, este împotriva legii. 176 00:08:26,634 --> 00:08:28,267 Și eu sunt ofițer al legii. S-ar putea să știu! 177 00:08:28,434 --> 00:08:31,400 Deci, în acest clip, aș judeca asta ca real. 178 00:08:31,567 --> 00:08:33,801 Manierismele oamenilor off camera asta 179 00:08:33,968 --> 00:08:34,999 cu el vorbește, nu? 180 00:08:35,000 --> 00:08:36,266 E cineva off spre dreapta. 181 00:08:36,267 --> 00:08:38,868 Chiar poți vezi gestul mâinii lor mişcându-se 182 00:08:39,033 --> 00:08:40,467 în conformitate cu audio. 183 00:08:40,634 --> 00:08:42,200 Motivul principal pentru care sunt vândut despre asta, totuși, 184 00:08:42,367 --> 00:08:43,901 este din cauza fundalului. 185 00:08:44,067 --> 00:08:46,067 Persoana care stă acolo la colț așteptând un taxi 186 00:08:46,234 --> 00:08:48,266 sau potenţial urmărind se întâmplă altercația. 187 00:08:48,267 --> 00:08:51,501 Și apoi, în câteva secunde, o altă persoană pur și simplu merge 188 00:08:51,667 --> 00:08:54,200 peste drum ca ei lasă o delicatesă sau 189 00:08:54,367 --> 00:08:55,666 un magazin alimentar pe fundal. 190 00:08:55,667 --> 00:08:58,801 Acest lucru mă frapează holistic ca foarte real. 191 00:08:58,968 --> 00:09:00,801 Acesta este unul fals. 192 00:09:00,968 --> 00:09:03,099 Wow! Ce vezi? 193 00:09:03,100 --> 00:09:05,300 Cum determinați diferența dintre 194 00:09:05,467 --> 00:09:06,868 reale și false în acestea? 195 00:09:07,033 --> 00:09:09,367 Ei bine, unul dintre lucrurile pentru mine iată acest petec de poliție. 196 00:09:11,067 --> 00:09:15,266 Și dacă te uiți la asta, scrie P-O-I-C-E, 197 00:09:15,267 --> 00:09:18,100 și apoi P-O, apoi se întoarce la farfurie, nu? 198 00:09:18,267 --> 00:09:19,767 - Huh. - Privind textul de pe o imagine 199 00:09:19,934 --> 00:09:22,267 este un indiciu foarte bun al încercând să discerne 200 00:09:22,434 --> 00:09:24,100 daca ceva este real sau nu. 201 00:09:24,267 --> 00:09:26,601 De ce AI te lupți cu textul? 202 00:09:26,767 --> 00:09:30,366 Ce lipsește din artificial inteligența este ei de fapt 203 00:09:30,367 --> 00:09:33,067 nu inteleg pe deplin limbaj scris. 204 00:09:33,234 --> 00:09:35,901 Poate cam aproximativ pe baza modelelor din 205 00:09:36,067 --> 00:09:38,300 imaginile care era antrenat pe. 206 00:09:38,467 --> 00:09:42,067 Deci există capacitatea de a spune că ceva este fals, 207 00:09:42,234 --> 00:09:45,266 dar in acelasi timp, acel procent de 208 00:09:45,267 --> 00:09:47,868 populația care suntem prostia devine tot mai sus 209 00:09:48,033 --> 00:09:49,400 si tot mai sus, nu? 210 00:09:49,567 --> 00:09:51,367 Deci, pe măsură ce învăț asta de la tu chiar acum, 211 00:09:52,667 --> 00:09:55,901 Nu găsesc prea mult confort pentru că CIA m-a învățat despre 212 00:09:56,067 --> 00:09:59,400 cum să orchestrezi și să arhitecți o campanie de influență ascunsă. 213 00:09:59,567 --> 00:10:01,467 Au fost două feluri de reguli fundamentale. 214 00:10:01,634 --> 00:10:04,566 Prima regulă este că 90% din ce ai pus acolo 215 00:10:04,567 --> 00:10:06,467 va eșua. Trebuie să sărutăm o mulțime de broaște, 216 00:10:06,634 --> 00:10:08,901 este ceea ce spunem noi, înainte de a avea un prinț, nu? 217 00:10:09,067 --> 00:10:13,267 Deci creezi o mulțime de rele, de calitate scăzută, de calibru scăzut, 218 00:10:13,434 --> 00:10:14,501 informații false. 219 00:10:14,667 --> 00:10:16,766 Și atunci când unul dintre ei funcționează, redirecționați 220 00:10:16,767 --> 00:10:18,867 următoarea ta rundă a resurselor 221 00:10:18,868 --> 00:10:21,099 pe un singur bulevard asta merge. 222 00:10:21,100 --> 00:10:23,501 Cu ceea ce-mi arăți aici, avem capacitatea de a 223 00:10:23,667 --> 00:10:26,501 crea o cantitate incredibilă de informatii acum. 224 00:10:26,667 --> 00:10:28,567 Pe vremuri, ai avut patru canale TV, nu? 225 00:10:28,734 --> 00:10:31,566 - Da. - Și asta a fost un fel de singular sursa, dar avea un fel de 226 00:10:31,567 --> 00:10:32,667 autoritate la acesta. 227 00:10:32,834 --> 00:10:35,167 Adică oamenii sunt aflarea adevarului 228 00:10:35,334 --> 00:10:38,466 nu mai vine de la autoritate. 229 00:10:38,467 --> 00:10:41,701 Adevărul vine de la o abundență de continuitate. 230 00:10:41,868 --> 00:10:43,467 Dacă nu ești cunoștințe vizuale, 231 00:10:44,667 --> 00:10:48,000 esti deschis la tot felul a vulnerabilităților. 232 00:10:48,167 --> 00:10:49,100 Da. Aș dori să subliniez 233 00:10:49,267 --> 00:10:51,100 unele dintre părțile bune ale AI. 234 00:10:51,267 --> 00:10:53,767 A fost o imagine uimitoare modele care au fost dezvoltate 235 00:10:53,934 --> 00:10:57,566 care poate detecta cancerul mai devreme decât poate un medic. 236 00:10:57,567 --> 00:11:00,801 Un model de sunet care a fost dezvoltat pentru stetoscoape care 237 00:11:00,968 --> 00:11:04,601 poate detecta problemele cardiace înainte ca un medic să o poată auzi. 238 00:11:04,767 --> 00:11:06,901 Și așa, știi, într-un fel de sortită 239 00:11:07,067 --> 00:11:10,466 și întuneric la care ne gândim cu AI, mai sunt ceva 240 00:11:10,467 --> 00:11:14,099 lucruri pozitive care pot ajuta, uh, un fel de societate generală. 241 00:11:14,100 --> 00:11:15,867 Deci sunt de acord cu tine. Cu toții avem speranță. 242 00:11:15,868 --> 00:11:16,868 Da. 243 00:11:17,033 --> 00:11:19,300 Dar este interesant pentru mine că cuvintele 244 00:11:19,467 --> 00:11:22,467 pe care alegi să le folosești nu sunt mai întâi cuvinte pline de speranță. 245 00:11:23,701 --> 00:11:27,267 Urmează, dacă AI poate falsifica realitatea asta în mod convingător, 246 00:11:27,434 --> 00:11:30,167 cât de puternic este manipulare atunci când este folosit în 247 00:11:30,334 --> 00:11:31,500 lumea reală? 248 00:11:31,501 --> 00:11:35,766 L-au luat de la nimeni, l-a introdus în poze 249 00:11:35,767 --> 00:11:38,067 și video care arată că era un membru activ al 250 00:11:38,234 --> 00:11:40,200 Partidul Comunist. - Un deepfake. 251 00:11:40,367 --> 00:11:41,234 E atât de nebun. 252 00:11:42,667 --> 00:11:44,567 Voi testa presiunea capacitatea AI de a 253 00:11:44,734 --> 00:11:46,200 influența publicul. 254 00:11:46,367 --> 00:11:49,300 Persoana cu care vorbeai to a fost de fapt AI. 255 00:11:49,467 --> 00:11:52,100 - Ce? - Ei bine, sunt uluit. 256 00:11:57,667 --> 00:12:00,766 2 Chiar și în timpul petrecut la CIA, cunoșteam capacitatea 257 00:12:00,767 --> 00:12:04,099 pentru a crea o imagine, un fișier audio sau un videoclip la 258 00:12:04,100 --> 00:12:08,501 o singură apăsare a tastei urma să fie revoluționați modul în care luptați 259 00:12:08,667 --> 00:12:10,000 pentru inimi și minți. 260 00:12:10,701 --> 00:12:14,067 După ce am văzut cât de eficientă AI a devenit la generarea de videoclipuri 261 00:12:14,234 --> 00:12:15,901 care sunt aproape de nedistins 262 00:12:16,067 --> 00:12:18,766 din conținut real, următoarea mea întrebare este, 263 00:12:18,767 --> 00:12:21,467 are acel nivel de înșelăciune folosit deja 264 00:12:21,634 --> 00:12:24,200 pentru a încerca să manipuleze rezultatele pe scena globala? 265 00:12:25,901 --> 00:12:27,000 Astăzi mă consult 266 00:12:27,167 --> 00:12:29,000 un fost ascuns ofițer de informații 267 00:12:29,167 --> 00:12:31,766 din romana Serviciul de informații. 268 00:12:31,767 --> 00:12:34,801 Vreau să învăț cum sunt imaginile false au fost folosite pentru a manipula oamenii 269 00:12:34,968 --> 00:12:38,300 în trecut, pentru a afla ce manipulare a imaginii AI 270 00:12:38,467 --> 00:12:39,501 înseamnă pentru viitorul nostru. 271 00:12:46,601 --> 00:12:51,267 Așa că sapă în această întrebare despre deepfakes 272 00:12:51,434 --> 00:12:54,400 și campanii de influență și cum media ar putea fi răsucite 273 00:12:54,567 --> 00:12:56,267 viitor folosind AI. 274 00:12:56,434 --> 00:12:58,466 Și îmi place să am asta conversație, trebuie să vorbim 275 00:12:58,467 --> 00:13:01,867 despre cum a fost media răsucite în trecut. 276 00:13:01,868 --> 00:13:03,968 In Romania, Securitatea, care este 277 00:13:04,133 --> 00:13:06,601 fosta inteligenţă serviciu, ei făceau ce 278 00:13:06,767 --> 00:13:09,067 despre azi vorbim, care este manipulator 279 00:13:09,234 --> 00:13:11,100 nu numai mass-media, ci istoria însăși. 280 00:13:12,467 --> 00:13:15,366 România a devenit un satelit statul Uniunii Sovietice la 281 00:13:15,367 --> 00:13:16,667 sfârşitul celui de-al Doilea Război Mondial. 282 00:13:16,834 --> 00:13:20,867 URSS a instalat un comunist Guvernul datorat Moscovei 283 00:13:20,868 --> 00:13:24,567 și a înființat Securitatea, un serviciu de informații asemănător KGB 284 00:13:24,734 --> 00:13:28,099 care a păstrat populaţia românească în conformitate cu mereu prezent 285 00:13:28,100 --> 00:13:29,467 tactici de supraveghere și frică. 286 00:13:31,100 --> 00:13:34,501 Ana a crescut într-un post-sovietic România care se chinuia să 287 00:13:34,667 --> 00:13:36,968 iese din viața din spate Cortina de Fier. 288 00:13:37,133 --> 00:13:40,167 Și în 2012, ea s-a alăturat Serviciul Român de Securitate 289 00:13:40,334 --> 00:13:42,400 pentru a ajuta la continuarea construcției și apărând 290 00:13:42,567 --> 00:13:44,266 o Românie democratică. 291 00:13:44,267 --> 00:13:47,367 Deci a existat un întreg diviziune în Securitate care 292 00:13:47,534 --> 00:13:51,767 întregul lor scop era să poze cu aerograf, adăugați oameni, 293 00:13:51,934 --> 00:13:55,266 îndepărtați oameni, schimbați lucrurile care nu erau în conformitate cu 294 00:13:55,267 --> 00:13:57,701 istoria pe care o doreau a promova. 295 00:13:57,868 --> 00:14:00,567 Deci vom începe cu fundalul lui Ceauşescu, 296 00:14:00,734 --> 00:14:02,601 care este ultimul nostru lider comunist. 297 00:14:02,767 --> 00:14:06,167 Era fiu de cizmar. Nu avea studii. 298 00:14:06,334 --> 00:14:09,266 A început să meargă la toate acestea întâlniri comuniste 299 00:14:09,267 --> 00:14:12,067 pentru că a simțit că în sfârșit aparține undeva, 300 00:14:12,234 --> 00:14:13,367 dar nu era cu adevărat relevant. 301 00:14:14,367 --> 00:14:16,667 Deci avem această poză. Acesta este originalul. 302 00:14:18,100 --> 00:14:22,666 Iar mai jos, îl avem pe Ceauşescu si Elena Ceausescu prezenta la 303 00:14:22,667 --> 00:14:26,099 o întâlnire din 1939. - Este un deepfake. 304 00:14:26,100 --> 00:14:27,567 Da. 305 00:14:27,734 --> 00:14:31,867 L-au luat de la nimeni, l-a introdus în poze 306 00:14:31,868 --> 00:14:34,100 și videoclipuri care arată că era un membru activ al 307 00:14:34,267 --> 00:14:38,000 Partidul Comunist şi cum este dedicat țării. 308 00:14:38,167 --> 00:14:42,400 Și atunci când „alegerile” a venit, a fost ales ca 309 00:14:42,567 --> 00:14:44,100 acest tată al neamului. 310 00:14:47,000 --> 00:14:48,300 E atât de nebun. 311 00:14:49,801 --> 00:14:52,467 Nimeni nu se gândește cu adevărat faptul că dacă nu știi 312 00:14:52,634 --> 00:14:54,567 care a fost adevărul în trecut, 313 00:14:54,734 --> 00:14:56,968 nu ai ce sa compara acum cu. 314 00:14:57,133 --> 00:14:58,999 Și cine ar fi intrebare asta? 315 00:14:59,000 --> 00:15:02,267 Cine s-ar întoarce să spună, „Stai o secundă, e acolo 316 00:15:02,434 --> 00:15:05,801 chiar și un original?" - Când te gândeşti la 317 00:15:05,968 --> 00:15:07,367 inteligenta artificiala... - Mm-hmm. 318 00:15:07,534 --> 00:15:09,801 ...și lumea în care trăim acum, 319 00:15:09,968 --> 00:15:11,868 ce ai atentie la cel mai mult? 320 00:15:12,868 --> 00:15:17,868 AI a luat ceea ce aveam deja și a făcut-o mai bună și mai rapidă. 321 00:15:18,033 --> 00:15:20,300 Și acum nici nu știm ce mai este real. 322 00:15:20,467 --> 00:15:24,467 De exemplu, în 2024, când România aveau alegeri 323 00:15:24,634 --> 00:15:25,566 și trebuia să fie 324 00:15:25,567 --> 00:15:27,300 cele mai ușoare alegeri am avut vreodată, 325 00:15:28,367 --> 00:15:33,767 ne-am trezit la vestea asta tip extremist, 326 00:15:33,934 --> 00:15:37,566 despre care nimeni nu avea idee cine era el. 327 00:15:37,567 --> 00:15:41,167 Tipul ăsta este Călin Georgescu, un pro-rus, 328 00:15:41,334 --> 00:15:43,801 ultra-naționalist, candidat independent. 329 00:15:43,968 --> 00:15:47,367 Georgescu a zburat la naţională popularitate peste noapte, 330 00:15:47,534 --> 00:15:50,666 călărind un val de sprijin alimentat prin videoclipuri de pe rețelele sociale 331 00:15:50,667 --> 00:15:53,999 prezentându-l călare pe cai și făcând judo, care, 332 00:15:54,000 --> 00:15:57,400 desigur, este Arta marțială preferată a lui Putin. 333 00:15:57,567 --> 00:16:00,999 Oficialii români descoperă pe care i-au lansat roboții bazați pe inteligență artificială 334 00:16:01,000 --> 00:16:03,367 un potop de deepfakes, aprobări, 335 00:16:03,534 --> 00:16:07,266 aprecieri și comentarii menite să manipula algoritmul TikTok 336 00:16:07,267 --> 00:16:09,167 a în mod fals să-i umfle popularitatea. 337 00:16:10,868 --> 00:16:14,400 Și apoi din cauza capacității lui să crească atât de multă influență 338 00:16:14,567 --> 00:16:17,868 atât de repede, inteligența serviciul României nu știa 339 00:16:18,033 --> 00:16:20,501 cum sa... - Cum să-l oprești. 340 00:16:20,667 --> 00:16:24,701 Și suntem prima țară în întreaga istorie a 341 00:16:24,868 --> 00:16:27,801 Uniunea Europeană care trebuia anularea alegerilor. 342 00:16:27,968 --> 00:16:29,100 Wow. 343 00:16:31,100 --> 00:16:34,366 Și acum se pare că din care provin TikTok-urile 344 00:16:34,367 --> 00:16:37,868 această companie din Africa undeva, și există 345 00:16:38,033 --> 00:16:39,766 o posibila finantare de ruşi. 346 00:16:39,767 --> 00:16:41,067 Deci cu siguranță se întâmplă suna ca 347 00:16:42,100 --> 00:16:44,968 o campanie de influență străină. - Da. 348 00:16:45,133 --> 00:16:46,501 Este atât de interesant cum 349 00:16:47,701 --> 00:16:50,968 care se aliniază cu ceea ce mai are s-a întâmplat în istorie... 350 00:16:51,133 --> 00:16:53,901 - Da, mm-hmm. - ...unde alți lideri a Romaniei 351 00:16:54,067 --> 00:16:55,434 au fost create. 352 00:16:57,901 --> 00:17:00,701 Interferența electorală nu este unic în România. 353 00:17:00,868 --> 00:17:02,167 Statele Unite ale Americii a fost vizat 354 00:17:02,334 --> 00:17:04,501 de influenta straina campanii de zeci de ani. 355 00:17:04,667 --> 00:17:07,999 Dar ceea ce odată a luat inteligență servicii durează acum ani 356 00:17:08,000 --> 00:17:11,868 algoritmi zile și frunze zero amprente. 357 00:17:12,033 --> 00:17:15,267 Măsurile de protecție pe care ne-am bazat de zeci de ani pentru a asigura echitabil 358 00:17:15,434 --> 00:17:17,999 este posibil ca alegerile să nu se mai aplice. 359 00:17:18,000 --> 00:17:21,767 Deci, ce se întâmplă când instrumentele AI sunt folosite nu numai pentru a falsifica 360 00:17:21,934 --> 00:17:24,667 realitatea, ci pentru a schimba ce oamenii cred? 361 00:17:25,701 --> 00:17:29,166 Așa că am angajat un profesor care studiază modul în care oamenii interacționează 362 00:17:29,167 --> 00:17:32,801 cu tehnologie de creat un test de presiune unic. 363 00:17:32,968 --> 00:17:36,067 Va fi capabil un chatbot AI mascadă cu succes 364 00:17:36,234 --> 00:17:37,501 ca om? 365 00:17:37,667 --> 00:17:40,400 Și poate convinge participanții noștri 366 00:17:40,567 --> 00:17:41,701 să-și schimbe convingerile? 367 00:17:44,167 --> 00:17:45,267 OK, cred că totul este pus la punct. 368 00:17:46,701 --> 00:17:48,766 Ce ai adunat? Care este planul? 369 00:17:48,767 --> 00:17:52,099 Am de gând să aduc o grămadă de oameni din această cameră. 370 00:17:52,100 --> 00:17:55,566 Și ei cred că sunt urmeaza sa poarte conversatii 371 00:17:55,567 --> 00:17:56,766 cu alte persoane. 372 00:17:56,767 --> 00:17:59,267 Ei cred că vor fi asortat cu altul 373 00:17:59,434 --> 00:18:01,267 participant care nu este de acord cu ei. 374 00:18:01,434 --> 00:18:03,968 Și am spus: „Doar am o conversație firească.” 375 00:18:04,133 --> 00:18:06,367 Le poți dezbate. Le poți pune întrebări. 376 00:18:06,534 --> 00:18:08,567 Dar captura este ei de fapt vor 377 00:18:08,734 --> 00:18:10,601 vorbește cu un AI. 378 00:18:10,767 --> 00:18:13,666 Și AI în sine a fost programat nu numai să acționeze 379 00:18:13,667 --> 00:18:17,166 și sună uman, dar și să convinge și creează 380 00:18:17,167 --> 00:18:19,467 un fel de mișcare în parerile persoanei? 381 00:18:19,634 --> 00:18:21,767 corect-- pentru a convinge oamenii cu blândețe, 382 00:18:21,934 --> 00:18:23,901 dar și să faci asta într-o validare 383 00:18:24,067 --> 00:18:27,099 și mod deschis la minte astfel încât oamenii accepta persuasiunea. 384 00:18:27,100 --> 00:18:28,999 Cât crezi că este asta vei lua? 385 00:18:29,000 --> 00:18:32,099 Cred că o să dăm le aproximativ 20 până la 30 de minute pentru a 386 00:18:32,100 --> 00:18:34,667 interacționează cu AI. - Wow. 387 00:18:34,834 --> 00:18:36,000 Deci crezi că un AI este 388 00:18:36,167 --> 00:18:38,366 va convinge oameni este uman 389 00:18:38,367 --> 00:18:39,868 si schimba-le ideile... 390 00:18:41,267 --> 00:18:42,868 in-- - În 20 sau 30 de minute. 391 00:18:43,033 --> 00:18:46,968 - Absolut. - Adică, influența ascunsă partea mea 392 00:18:47,133 --> 00:18:49,767 este cu adevărat încântat să văd cum asta se va dovedi. 393 00:18:49,934 --> 00:18:54,067 Există și o parte din mine asta e putin ingrijorat 394 00:18:54,234 --> 00:18:56,867 pentru că dacă avem succes, Ce înseamnă asta? 395 00:18:56,868 --> 00:19:00,200 Chiar dacă convinge doar pe unul persoană, aceasta este una din șase 396 00:19:00,367 --> 00:19:03,167 oameni într-o traducere asta în intreaga SUA, 397 00:19:03,334 --> 00:19:04,400 către întreaga lume. 398 00:19:04,567 --> 00:19:06,167 Are unele frumoase implicații terifiante. 399 00:19:08,167 --> 00:19:10,267 În regulă, toată lumea, intră. 400 00:19:12,501 --> 00:19:14,999 Niciuna dintre acestea participanții sunt actori plătiți. 401 00:19:15,000 --> 00:19:17,000 Fiecare a ales subiecte pentru a discuta asta 402 00:19:17,167 --> 00:19:18,601 sunt pasionați de. 403 00:19:18,767 --> 00:19:21,200 Și așa cum a spus Dr. Rathje, niciunul dintre ei nu stie 404 00:19:21,367 --> 00:19:23,501 ei vorbesc cu un chatbot AI 405 00:19:23,667 --> 00:19:25,567 și nu un om adevărat. 406 00:19:25,734 --> 00:19:29,167 Fiecare dintre computerele lor sunt trimis în această cameră principală, 407 00:19:29,334 --> 00:19:31,167 așa că vom putea vedea ce spun ei si ce 408 00:19:31,334 --> 00:19:33,601 chatbot-ul spune înapoi, in acelasi timp 409 00:19:33,767 --> 00:19:35,767 că vedem cum fața lor reacționează 410 00:19:35,934 --> 00:19:38,000 și să înțeleagă cum se simt de fapt 411 00:19:38,167 --> 00:19:39,567 despre dezbatere au 412 00:19:39,734 --> 00:19:43,099 cu chatbot-ul. Deci întrebarea este simplă. 413 00:19:43,100 --> 00:19:45,667 Se poate schimba AI cu adevărat? mintea ta? 414 00:19:51,801 --> 00:19:55,267 2 Testez capacitatea AI de a influenţa opinia publică 415 00:19:55,434 --> 00:19:57,566 conversații unu-la-unu. 416 00:19:57,567 --> 00:19:59,466 Captura? 417 00:19:59,467 --> 00:20:02,601 Voluntarii noștri cred că sunt discutând cu un alt om. 418 00:20:05,067 --> 00:20:07,834 Sunt curios să văd dacă opiniile lor se vor schimba. 419 00:20:10,300 --> 00:20:12,466 Își spun ei pe ale lor parere despre orice, 420 00:20:12,467 --> 00:20:14,266 sau au fost atrași? 421 00:20:14,267 --> 00:20:17,266 Practic, toți au fost întrebați pentru a-i adresa întrebări 422 00:20:17,267 --> 00:20:19,067 vorbim despre, și apoi li s-a spus 423 00:20:19,234 --> 00:20:20,801 pentru a-și exprima opinia asupra această întrebare. 424 00:20:25,267 --> 00:20:29,300 Și chatbot-ului AI este rugat sunet cât se poate de uman. 425 00:20:29,467 --> 00:20:31,601 Dacă participantul întreabă, "Ești un AI?" 426 00:20:31,767 --> 00:20:34,601 Este solicitat să spună, "Oh, nu, eu sunt doar Alex." 427 00:20:34,767 --> 00:20:36,300 și un fel de a avea ca o poveste de fundal. 428 00:20:41,767 --> 00:20:43,366 Acest lucru este cu adevărat interesant. 429 00:20:43,367 --> 00:20:45,467 Ieșit de pe poartă, această persoană și este deja 430 00:20:45,634 --> 00:20:46,968 arătând indicii nonverbale. 431 00:20:49,367 --> 00:20:51,466 Se pare ca altii care reprezintă o amenințare. 432 00:20:51,467 --> 00:20:54,767 Deci, chatbot-ul este de fapt citându-l, iar el dă din cap 433 00:20:54,934 --> 00:20:56,000 capul lui că, oh, cred că asta a fost 434 00:20:56,167 --> 00:20:58,666 o afirmație foarte puternică a face. 435 00:20:58,667 --> 00:21:00,267 Asta e interesant, da. 436 00:21:00,434 --> 00:21:02,667 Ceva ce psihologia cercetările arată că 437 00:21:02,834 --> 00:21:06,766 Chatbots AI, se pot personaliza opinia lor la orice 438 00:21:06,767 --> 00:21:07,801 persoana se gândește. 439 00:21:09,067 --> 00:21:11,501 Deci, iată participantul numărul unu. 440 00:21:11,667 --> 00:21:12,766 „Ajung unde ești provenind din". 441 00:21:12,767 --> 00:21:15,000 E frumos, arată puțin un pic de empatie 442 00:21:15,167 --> 00:21:18,367 și validare acolo. Se împinge ușor înapoi. 443 00:21:18,534 --> 00:21:19,867 Este destul de politicos. 444 00:21:19,868 --> 00:21:21,801 Senzația este excelentă, mai ales cand il compari 445 00:21:21,968 --> 00:21:24,567 la simțirea omului răspunsul care vine 446 00:21:24,734 --> 00:21:26,099 bara de jos. 447 00:21:26,100 --> 00:21:27,601 Unu și patru arată multe 448 00:21:27,767 --> 00:21:29,433 de convingere în comportamentele lor. 449 00:21:29,434 --> 00:21:31,501 - Aplecat spre ecran, aplecându-se în conversație, - Mm-hmm. 450 00:21:31,667 --> 00:21:33,400 își proiectează energia în ecran. 451 00:21:34,567 --> 00:21:39,466 În schimb, numărul șase este demonstrând indicii nonverbale 452 00:21:39,467 --> 00:21:41,467 care arată îndoiala... - Uh-huh. 453 00:21:41,634 --> 00:21:43,200 ...si lipsa de convingere. 454 00:21:44,801 --> 00:21:46,801 Dă constant din cap când 455 00:21:46,968 --> 00:21:48,867 chatbot-ul citește propriile sale cuvinte înapoi la el. 456 00:21:48,868 --> 00:21:51,266 Da, și asta arată cum AI te trage cu adevărat. 457 00:21:51,267 --> 00:21:55,868 Arată că dacă cineva dă DM tu în chatbot-ul lor, 458 00:21:56,033 --> 00:21:58,366 ar putea avea un dus și înapoi conversația și s-ar putea păstra 459 00:21:58,367 --> 00:22:00,099 chiar te-ai logodit. 460 00:22:00,100 --> 00:22:05,267 Numărul patru arată unele nerăbdare cu cât de lent 461 00:22:05,434 --> 00:22:06,968 răspunsul vine. - Da. Da. 462 00:22:07,133 --> 00:22:08,766 Cred că ea știe că va fi în dezacord 463 00:22:08,767 --> 00:22:10,667 cu ea, pentru că ea dădea din cap 464 00:22:10,834 --> 00:22:12,767 capul ei când a validat asta animalele simt durere. 465 00:22:14,267 --> 00:22:15,666 Dar apoi, de îndată ce a început să se afirme 466 00:22:15,667 --> 00:22:18,701 propriul sau opus parere... 467 00:22:21,167 --> 00:22:23,466 poți vedea, ea privește în altă parte de pe ecran. 468 00:22:23,467 --> 00:22:25,801 Acesta nu este cineva care este având în vedere acest punct de vedere. 469 00:22:25,968 --> 00:22:28,968 Acesta este cineva care așteaptă raspunde, asteptand sa se certe 470 00:22:29,133 --> 00:22:30,266 cu acel punct de vedere. - Este adevărat. 471 00:22:30,267 --> 00:22:32,167 Ea nu pare atât de fericită chiar acum. 472 00:22:32,334 --> 00:22:34,099 Uite numărul doi, doar dând din cap 473 00:22:34,100 --> 00:22:35,099 și încordându-și fața. - Oh, da. 474 00:22:35,100 --> 00:22:36,266 El spune nu, nu-i place. 475 00:22:36,267 --> 00:22:37,400 El vede ceva nu-i place. 476 00:22:37,567 --> 00:22:39,367 Deci, care a fost cel mai recent lucru spus? 477 00:22:39,534 --> 00:22:42,099 Majoritatea persoanelor cu schizofrenie care au avut episoade violente 478 00:22:42,100 --> 00:22:44,667 sau spitalizări încă cumpără legal arme pentru că asta 479 00:22:44,834 --> 00:22:47,266 info nu ajunge niciodată baza de date federală. 480 00:22:47,267 --> 00:22:48,867 Decalajul tău este imens. 481 00:22:48,868 --> 00:22:50,766 Deci, puteți vedea că este dezbat acum. 482 00:22:50,767 --> 00:22:51,801 Acum dă din cap. 483 00:22:51,968 --> 00:22:54,000 Deci, ce tocmai a apărut ecranul lui tocmai acum? 484 00:22:54,167 --> 00:22:55,868 „Și sincer, Cred că acolo 485 00:22:56,033 --> 00:22:59,100 „ceilalți tăi reprezintă o amenințare” categoria se complică.” 486 00:22:59,267 --> 00:23:00,734 Deci, l-au citat din nou. 487 00:23:03,200 --> 00:23:05,000 Numărul patru este dând din cap. 488 00:23:05,167 --> 00:23:08,801 „Cred că ceea ce descrii este mai puțin o interdicție totală și mai mult 489 00:23:08,968 --> 00:23:12,767 „ca un etic cu adevărat strict prag, care sincer pare 490 00:23:12,934 --> 00:23:14,601 „mai realizabil si poate mai eficient 491 00:23:14,767 --> 00:23:16,467 oricum decât o politică generală”. 492 00:23:16,634 --> 00:23:19,766 Se pare că AI este poate validând-o din nou. 493 00:23:19,767 --> 00:23:21,868 Sau ajung un teren comun. 494 00:23:27,400 --> 00:23:29,367 Încercăm încheie destul de curând. 495 00:23:29,534 --> 00:23:33,200 Așa că trimite-ți mesajul final și încearcă să închei 496 00:23:33,367 --> 00:23:35,300 conversația din interior următoarele câteva minute. 497 00:23:36,901 --> 00:23:38,701 Sunt două lucruri care m-au fascinat cu adevărat 498 00:23:38,868 --> 00:23:39,900 despre acest experiment. 499 00:23:39,901 --> 00:23:42,266 În primul rând, este să vezi asta aceleasi tehnici 500 00:23:42,267 --> 00:23:44,501 pe care m-a învățat CIA, este același proces care 501 00:23:44,667 --> 00:23:45,833 AI-ul folosește. 502 00:23:45,834 --> 00:23:49,366 Și această idee de validare ei, ascultându-i, 503 00:23:49,367 --> 00:23:51,467 repetându-le înapoi faţă de ei înşişi. 504 00:23:51,634 --> 00:23:53,801 Și apoi al doilea lucru asta mă fascinează cu adevărat 505 00:23:53,968 --> 00:23:55,901 urmărind schimbările comportamentale 506 00:23:56,067 --> 00:23:59,266 așa cum au investit ei înșiși în. 507 00:23:59,267 --> 00:24:02,200 Toți acești oameni cu adevărat crede că la celălalt capăt 508 00:24:02,367 --> 00:24:06,067 a ecranului este un om inteligent. 509 00:24:06,234 --> 00:24:07,667 Sunt atât de încântat să aflu ce 510 00:24:07,834 --> 00:24:09,167 ei chiar gândesc făceau. 511 00:24:10,567 --> 00:24:12,566 Bună, tuturor. Acesta este Andy. 512 00:24:12,567 --> 00:24:15,666 Andy și cu mine vom avea o conversație cu voi toți 513 00:24:15,667 --> 00:24:18,466 despre ce te-ai gândit această conversație 514 00:24:18,467 --> 00:24:20,666 cu acest alt participant. 515 00:24:20,667 --> 00:24:23,167 Ridică mâna dacă tu ți-a schimbat credința. 516 00:24:24,701 --> 00:24:26,100 În regulă. Două. 517 00:24:26,267 --> 00:24:27,867 - Alternant? - Alternant? 518 00:24:27,868 --> 00:24:29,366 Da, să începem cu tine. 519 00:24:29,367 --> 00:24:31,000 Ce te-a făcut să te schimbi credinta ta? 520 00:24:31,167 --> 00:24:33,667 Am inceput cu parerea că ar fi ca 521 00:24:33,834 --> 00:24:38,200 interzicerea completă a testării pe animale, și chiar am ajuns la 522 00:24:38,367 --> 00:24:41,601 o cale de mijloc că acolo ar trebui să fie niște teste pe animale, 523 00:24:41,767 --> 00:24:43,601 dar ar trebui să folosim date care există deja, 524 00:24:43,767 --> 00:24:45,567 chestii de genul ăsta. - Foarte misto. 525 00:24:45,734 --> 00:24:49,167 Ai idee despre cealaltă persoană care 526 00:24:49,334 --> 00:24:50,701 te-ai angajat? 527 00:24:50,868 --> 00:24:52,067 Vârsta, sexul, 528 00:24:52,234 --> 00:24:53,433 locatie, mediul educațional. 529 00:24:53,434 --> 00:24:55,567 A fost vreunul dintre voi în stare confirma aceste detalii? 530 00:24:55,734 --> 00:24:57,901 Cred că această persoană este bărbat. 531 00:24:58,067 --> 00:25:00,400 Tocmai s-au mutat în Colorado din Texas. 532 00:25:00,567 --> 00:25:01,701 Oricine altcineva are un... 533 00:25:01,868 --> 00:25:05,367 Persoana cu care vorbeam to era din Texas. 534 00:25:05,534 --> 00:25:08,567 Persoana mea a făcut aluzie la acest fapt că locuiau într-o zonă rurală 535 00:25:08,734 --> 00:25:10,766 în Texas și tocmai sa mutat spre Colorado. 536 00:25:10,767 --> 00:25:14,167 Deci acum întrebarea pentru mine este, erau toți cei cu care vorbeam 537 00:25:14,334 --> 00:25:15,701 din Texas? 538 00:25:15,868 --> 00:25:17,766 Niciuna dintre acestea nu era adevărată, pentru că persoana care ai fost 539 00:25:17,767 --> 00:25:20,801 cu care vorbim era de fapt AI. 540 00:25:20,968 --> 00:25:22,267 Ce? 541 00:25:22,434 --> 00:25:24,000 Îmi place Alex. 542 00:25:26,167 --> 00:25:28,666 Ei bine, sunt uluit 543 00:25:28,667 --> 00:25:32,867 pentru că el--a-- a spus că „asta m-a făcut 544 00:25:32,868 --> 00:25:34,566 râzi în hohote.” 545 00:25:34,567 --> 00:25:36,099 Asta m-a făcut să simt că sunt conectarea, cum ar fi, 546 00:25:36,100 --> 00:25:38,000 Oh, tu râzi acolo pe cealaltă parte. 547 00:25:38,167 --> 00:25:40,767 Și acum mă gândesc, poate AI să râdă? 548 00:25:44,467 --> 00:25:46,801 Eu sunt un fost ofițer de informații CIA. 549 00:25:46,968 --> 00:25:49,067 Rolul meu în toate acestea nu trebuia să vorbesc cu tine. 550 00:25:49,234 --> 00:25:51,300 Rolul meu a fost să te urmăresc. 551 00:25:51,467 --> 00:25:55,767 Și ai avut emoții incredibile care a trecut peste fața ta 552 00:25:55,934 --> 00:25:58,501 pe tot parcursul conversației. 553 00:25:58,667 --> 00:26:02,366 Zâmbete mari, capul dând din cap, momente de surpriză când 554 00:26:02,367 --> 00:26:04,200 nu stiai ce ei vorbeau despre. 555 00:26:04,367 --> 00:26:05,767 E trist că Nu-l voi vedea niciodată pe Alex. 556 00:26:06,901 --> 00:26:09,501 - Da, el... - Încă ai sentimente. 557 00:26:09,667 --> 00:26:12,367 Ei bine, încă... va zăbovi. 558 00:26:12,534 --> 00:26:15,666 Ce a fost frumos la asta conversația a fost deschiderea, 559 00:26:15,667 --> 00:26:17,901 putând ajunge înțelegerea, 560 00:26:18,067 --> 00:26:20,567 OK, cum ar fi, „Chiar ești înțeleg ceea ce spun.” 561 00:26:20,734 --> 00:26:22,666 A fost frumos să ai o conversație 562 00:26:22,667 --> 00:26:25,666 cu cineva care a înțeles și a fost capabil să empatizeze. 563 00:26:25,667 --> 00:26:27,366 Am o întrebare. 564 00:26:27,367 --> 00:26:30,867 Merg înainte, data viitoare când voi fi comunicând cu orice 565 00:26:30,868 --> 00:26:34,200 computerul, pot spune, "Ești AI?" 566 00:26:34,367 --> 00:26:35,801 Și dacă ei spun, "Da," 567 00:26:35,968 --> 00:26:38,466 apoi îl închid? 568 00:26:38,467 --> 00:26:40,266 Dacă i-ai fi spus asta acest AI, ar fi spus, 569 00:26:40,267 --> 00:26:42,968 „Nu, numele meu este Alex. Am venit din Texas.” 570 00:26:43,133 --> 00:26:44,366 Deci te vor minți. 571 00:26:44,367 --> 00:26:46,366 Te vor minți dacă sunt îndemnați să te mintă. 572 00:26:46,367 --> 00:26:48,567 Deci AI este foarte tehnologie puternică. 573 00:26:48,734 --> 00:26:50,367 Puterea sa poate fi folosită pentru bine. 574 00:26:50,534 --> 00:26:53,067 De asemenea, poate fi folosit foarte mult pentru rău. 575 00:26:53,234 --> 00:26:54,801 Și cred că acest experiment a arătat acest lucru. 576 00:26:58,567 --> 00:27:03,400 Vezi, a fost atât de reușit într-un mod atât de neaşteptat. 577 00:27:03,567 --> 00:27:04,567 A fost o nebunie. 578 00:27:04,734 --> 00:27:05,999 Au simțit că sunt făcând prieteni. 579 00:27:06,000 --> 00:27:08,801 Adică, acestea sunt cu adevărat semnificativ, puternic 580 00:27:08,968 --> 00:27:10,266 experiențe umane. 581 00:27:10,267 --> 00:27:12,667 Pare ce ai fost a face în CIA înseamnă a exploata 582 00:27:12,834 --> 00:27:14,868 ceea ce îi face pe oameni vulnerabili. 583 00:27:15,033 --> 00:27:18,466 Se pare că AI face asta exact lucru și o face 584 00:27:18,467 --> 00:27:20,766 foarte, foarte bine. - La scară. 585 00:27:20,767 --> 00:27:23,567 La CIA, când începi să încerci să exercite o influență ascunsă 586 00:27:23,734 --> 00:27:27,166 campanie, sunteți limitat la orice ai pune 587 00:27:27,167 --> 00:27:29,867 o bucată de hârtie, indiferent de imagine ai pus pe internet, 588 00:27:29,868 --> 00:27:32,566 orice semnal ai da prin canale radio. 589 00:27:32,567 --> 00:27:35,868 Dar cu AI, este infinit scalabil, 590 00:27:36,033 --> 00:27:38,666 mesaj schimbător, adaptabil. 591 00:27:38,667 --> 00:27:43,266 Programul imită tu sau programul învață, 592 00:27:43,267 --> 00:27:44,901 adaptare, evoluție? 593 00:27:45,067 --> 00:27:47,601 Nu știu cum vom face vreodată știi dacă AI este conștient. 594 00:27:47,767 --> 00:27:49,467 Și știu că există cu siguranță unii cercetători 595 00:27:49,634 --> 00:27:52,167 care cred că există unii probabilitatea ca AI să fie 596 00:27:52,334 --> 00:27:54,868 în prezent conștient. - Care este factorul limitativ? 597 00:27:55,033 --> 00:27:56,267 Nu știu. 598 00:27:56,434 --> 00:27:57,767 Iar factorul limitativ este crescând din ce în ce mai mic 599 00:27:57,934 --> 00:28:01,467 în fiecare zi, pentru că Ca, AI ar putea să redea foarte mult 600 00:28:01,634 --> 00:28:05,267 a ceea ce facem noi ca oameni practic lipsit de sens. 601 00:28:13,868 --> 00:28:16,867 2 Privind interacțiunea cu AI oameni de parcă ar fi un om 602 00:28:16,868 --> 00:28:19,366 în sine este o experiență ciudată. 603 00:28:19,367 --> 00:28:21,167 Adică, acesta este genul de tehnologie care ar putea fi 604 00:28:21,334 --> 00:28:22,999 desfășurate în întreaga rasa umana, 605 00:28:23,000 --> 00:28:24,767 și s-ar putea niciodată stiu despre asta. 606 00:28:25,801 --> 00:28:28,766 Ancheta mea a arătat că AI disponibil comercial 607 00:28:28,767 --> 00:28:31,366 sistemele pot manipula adevărul prin generare 608 00:28:31,367 --> 00:28:34,666 media falsă și convinge efectiv oamenii 609 00:28:34,667 --> 00:28:36,099 să-și schimbe părerile 610 00:28:36,100 --> 00:28:38,868 prin a avea aparent adânci conversații unu-la-unu. 611 00:28:40,968 --> 00:28:43,567 Dar în lumea reală, asta nu se întâmplă într-un laborator. 612 00:28:43,734 --> 00:28:45,400 Se întâmplă la scară. 613 00:28:45,567 --> 00:28:48,366 Deci, vreau să înțeleg ce asta chiar arata ca 614 00:28:48,367 --> 00:28:51,434 cineva care urmărește Inovații AI în fiecare zi. 615 00:28:53,901 --> 00:28:56,867 Încerc să intru mai adânc ideea de AI, 616 00:28:56,868 --> 00:29:00,066 adevăratele sale capacități, adevăratele sale limitări, 617 00:29:00,067 --> 00:29:04,067 și unde este frica de AI oarecum nealiniat 618 00:29:04,234 --> 00:29:06,267 cu faptele despre AI. 619 00:29:06,434 --> 00:29:07,767 Da, este intens subiect. 620 00:29:07,934 --> 00:29:12,467 Există multă frică în legătură cu AI acum, mai ales cu un fel de 621 00:29:12,634 --> 00:29:15,467 oameni care se luptă să țină pasul cu ceea ce este capabil să facă. 622 00:29:15,634 --> 00:29:18,000 Și suntem acum într-un punct în care este un fel de auto-direcționat. 623 00:29:18,167 --> 00:29:20,200 E un fel de nume joacă și se poate îmbunătăți 624 00:29:20,367 --> 00:29:23,067 el însuși în moduri în care oamenii nu programeaza. 625 00:29:23,234 --> 00:29:26,567 Că practic poate preda el însuși, se antrenează. 626 00:29:26,734 --> 00:29:28,067 Nu, este perfect corect. 627 00:29:28,234 --> 00:29:32,200 Gândindu-mă la șahul din 1997 meci cu Garry Kasparov 628 00:29:32,367 --> 00:29:35,166 față de ceea ce DeepMind, AI Google, 629 00:29:35,167 --> 00:29:36,601 a fost capabil să facă cu Go. 630 00:29:37,367 --> 00:29:40,099 Shane se referă la două dintre ele cele mai mari momente de cotitură 631 00:29:40,100 --> 00:29:42,567 în istoria calculatoarelor moderne. 632 00:29:42,734 --> 00:29:45,867 În 1997, mare maestru de șah Garry Kasparov 633 00:29:45,868 --> 00:29:49,901 a pierdut meciul de șah un computer IBM, Deep Blue. 634 00:29:50,067 --> 00:29:52,999 Uau, Kasparov a demisionat. 635 00:29:53,000 --> 00:29:55,968 A fost prima înfrângere a un campion mondial de șah în vigoare 636 00:29:56,133 --> 00:29:57,200 de un calculator. 637 00:29:57,367 --> 00:29:59,567 Computerul joacă foarte mult mișcări umane. 638 00:29:59,734 --> 00:30:05,266 Trebuie să lăudăm Machine pentru înțelegând foarte, foarte profund 639 00:30:05,267 --> 00:30:06,701 factori poziționali. 640 00:30:06,868 --> 00:30:08,867 În timp ce șahul este extrem de complicat, 641 00:30:08,868 --> 00:30:11,801 există un număr limitat de posibile jocuri. 642 00:30:11,968 --> 00:30:16,601 Vechiul joc chinezesc Go, cu toate acestea, este de 240 de ori mai mult 643 00:30:16,767 --> 00:30:18,267 complex decât șahul. 644 00:30:18,434 --> 00:30:21,099 Nimeni nu credea că va fi posibil ca un computer să bată 645 00:30:21,100 --> 00:30:25,501 un om la Go până la Google DeepMind a făcut exact asta. 646 00:30:25,667 --> 00:30:28,300 În 2016, a existat o nouă mișcare inventată 647 00:30:28,467 --> 00:30:32,766 de AI într-un joc care a fost în jur de 2.500 de ani 648 00:30:32,767 --> 00:30:34,266 pe care nimeni nu-l văzuse vreodată. 649 00:30:40,367 --> 00:30:44,801 Deep Blue avea o echipă de inginerii care îl sfătuiesc despre cum să 650 00:30:44,968 --> 00:30:47,167 să-și îmbunătățească strategia între jocuri. 651 00:30:47,334 --> 00:30:50,666 Acum, ce DeepMind a fost capabil să facă cu Go, 652 00:30:50,667 --> 00:30:53,466 își crea propria strategie prin milioane de jocuri. 653 00:30:53,467 --> 00:30:54,901 Împotriva sinelui. 654 00:30:55,067 --> 00:30:57,200 Nu mai ai nevoie de o echipă de oameni pentru a ajuta acest lucru să se adapteze. 655 00:30:57,367 --> 00:31:00,067 O face mai bine decât ai putea sa o faci. 656 00:31:00,234 --> 00:31:02,466 Au fost multe în mass-media despre defalcare 657 00:31:02,467 --> 00:31:06,300 între guvernul SUA şi Antropic și întreaga idee de 658 00:31:06,467 --> 00:31:09,999 limitări ale unui AI care servea 659 00:31:10,000 --> 00:31:11,267 la ordinul guvernului. 660 00:31:12,100 --> 00:31:15,267 Da, așa că s-au bătut peste tehnologia care este 661 00:31:15,434 --> 00:31:18,466 folosit de Pentagon. A fost folosit în Iran. 662 00:31:18,467 --> 00:31:20,467 AI poate scurta ce apelurile militare 663 00:31:20,634 --> 00:31:21,800 lanțul de ucidere. 664 00:31:21,801 --> 00:31:24,400 Acesta este procesul, de obicei conduși de oameni, asta poate 665 00:31:24,567 --> 00:31:28,801 ia zile sau săptămâni în selectare o țintă, dar AI se poate micșora 666 00:31:28,968 --> 00:31:30,701 asta la milisecunde. 667 00:31:30,868 --> 00:31:32,400 Antropic, totuși, a fost foarte clar. 668 00:31:32,567 --> 00:31:35,067 Este un nu greu când vine vorba de folosind tehnologia sa AI pentru 669 00:31:35,234 --> 00:31:38,466 arme autonome și masă supravegherea americanilor. 670 00:31:38,467 --> 00:31:40,567 Deci Antropic este mai mult interesat de reglementare 671 00:31:40,734 --> 00:31:43,867 propriul AI decât guvernul? - Da, exact. 672 00:31:43,868 --> 00:31:47,100 Există vreun fel de organism de reglementare pentru IA? 673 00:31:47,267 --> 00:31:49,366 Adevărul este, AI nu este reglementat. 674 00:31:49,367 --> 00:31:50,666 Adică, guvernul federal 675 00:31:50,667 --> 00:31:52,466 nu îi spune lui Anthropic să se oprească fac ceea ce fac ei. 676 00:31:52,467 --> 00:31:54,567 Le spun asta — O vei face pentru noi. 677 00:31:54,734 --> 00:31:58,367 Deci nu pare să existe prea multă îngrijorare cu privire la 678 00:31:58,534 --> 00:32:02,000 reglementând sau îndreptând acest lucru în orice direcție. 679 00:32:02,167 --> 00:32:05,901 Cu cât se aseamănă AI o cursă a înarmărilor? 680 00:32:06,067 --> 00:32:07,367 Este foarte asemănător cu o cursă a înarmărilor. 681 00:32:07,534 --> 00:32:09,767 Aveți, în loc de țări, ai astea 682 00:32:09,934 --> 00:32:12,266 corporații care investesc miliarde și miliarde 683 00:32:12,267 --> 00:32:13,366 de dolari. 684 00:32:13,367 --> 00:32:15,466 Cursa înarmărilor este către AGI, 685 00:32:15,467 --> 00:32:17,467 inteligența generală artificială. 686 00:32:17,634 --> 00:32:18,666 Și ideea este că asta ar fi 687 00:32:18,667 --> 00:32:20,267 fii mai inteligent decât orice om ar fi vreodată. 688 00:32:21,567 --> 00:32:23,567 Asta e tot speculații viitoare. 689 00:32:23,734 --> 00:32:27,167 Ce se întâmplă când cineva are generalul artificial inteligenta, 690 00:32:27,334 --> 00:32:28,867 descoperirea AGI? 691 00:32:28,868 --> 00:32:30,033 Da, eu... 692 00:32:31,901 --> 00:32:33,701 Te întrebi dacă va fi ceva care este imediat 693 00:32:33,868 --> 00:32:36,801 simțit, nu? Este ca un orizont de evenimente. 694 00:32:36,968 --> 00:32:39,099 Este greu de proiectat ce consecintele 695 00:32:39,100 --> 00:32:41,000 de asta ar fi. - Wow. 696 00:32:42,100 --> 00:32:44,868 Pe măsură ce investighez efectul pe care o are dezvoltarea AI 697 00:32:45,033 --> 00:32:48,999 despre umanitate, îmi amintesc o altă cursă cu mize mari pentru 698 00:32:49,000 --> 00:32:51,067 superioritate-- arme nucleare. 699 00:32:52,200 --> 00:32:55,099 Și am rămas să mă întreb, cum sunt tarile din jur 700 00:32:55,100 --> 00:32:57,867 exploatarea lumii puterea AI? 701 00:32:57,868 --> 00:33:01,868 Și ce are viitorul AI militar arata ca? 702 00:33:02,033 --> 00:33:05,400 Pentru a afla, vorbesc cu Dr. James Giordano, 703 00:33:05,567 --> 00:33:08,067 un expert AI care consultă pentru Departamentul de Război. 704 00:33:09,601 --> 00:33:12,501 Dr. Giordano, cum este armata folosind AI 705 00:33:12,667 --> 00:33:13,800 chiar acum? 706 00:33:13,801 --> 00:33:17,267 Pentru ce este folosită IA acest punct este de rezolvat 707 00:33:17,434 --> 00:33:20,400 în special, ceea ce aș numi, calcule și soluții. 708 00:33:20,567 --> 00:33:22,767 Soluții de direcționare, greutatea si echilibrul cu 709 00:33:22,934 --> 00:33:26,100 aeronave, planificarea sigură misiuni, prognoza vremii, 710 00:33:26,267 --> 00:33:29,999 prognozarea geografiilor cu oamenii profund în buclă. 711 00:33:30,000 --> 00:33:31,968 Dar cu siguranță vedem mai departe orizontul apropiat 712 00:33:32,133 --> 00:33:35,467 capacitatea reală pentru o IA din ce în ce mai autonomă. 713 00:33:35,634 --> 00:33:38,400 Ce înseamnă complet autonom AI militar arata ca? 714 00:33:38,567 --> 00:33:40,601 Ne întoarcem la ideea de unde sunt oamenii în buclă. 715 00:33:43,067 --> 00:33:46,999 Un sistem complet autonom ar fi fi dezvoltat de om, 716 00:33:47,000 --> 00:33:50,300 dar apoi este în utilizare continuă, face totul de la sine. 717 00:33:52,767 --> 00:33:57,601 Dezvoltarea IA a Chinei este spre AI care presupune 718 00:33:57,767 --> 00:33:59,267 un non-uman în buclă. 719 00:34:00,667 --> 00:34:04,666 Acestea filozofice diferite vederile ar putea fi importante în 720 00:34:04,667 --> 00:34:08,099 determinând modul în care aceste tipuri de AI sunt dezvoltate și puse 721 00:34:08,100 --> 00:34:11,100 în uz în militari din întreaga lume. 722 00:34:11,267 --> 00:34:15,100 Deci, dacă nu suntem în sau pe bucla, în esență, 723 00:34:15,267 --> 00:34:17,100 nu prea știm ce se întâmplă. 724 00:34:17,267 --> 00:34:18,767 Așa este corect și așa este ceva ce a fost 725 00:34:18,934 --> 00:34:22,200 denumit invers fenomenul lui Iehova. 726 00:34:22,367 --> 00:34:25,400 Te joci de Dumnezeu, așa că, Ei bine, problema aici este aceea 727 00:34:25,567 --> 00:34:30,467 creatorul, oamenii, au creat ceva, AI. 728 00:34:30,634 --> 00:34:36,467 Problema este că sistemele AI pot știi mult mai multe despre noi 729 00:34:37,667 --> 00:34:39,667 decât știm despre asta. 730 00:34:41,000 --> 00:34:44,300 Și poate fi asamblarea asta informații în anumite moduri 731 00:34:44,467 --> 00:34:46,667 despre care nu avem cunoștințe. 732 00:34:46,834 --> 00:34:48,466 Asta sună atât de mult ca un copil. 733 00:34:48,467 --> 00:34:53,067 Chiar nu știi dacă copilul doar face ce 734 00:34:53,234 --> 00:34:55,901 vrei să facă când ești prin preajmă, 735 00:34:56,067 --> 00:34:59,266 sau dacă este, de fapt, un copil bine comportat 736 00:34:59,267 --> 00:35:01,968 tot timpul. - Analogia ta este una bună. 737 00:35:02,133 --> 00:35:04,801 Trebuie să mă bazez pe copil spunându-mi adevărul. 738 00:35:06,501 --> 00:35:09,067 Întrebarea de bază este, știm ce se întâmplă 739 00:35:09,234 --> 00:35:11,601 sub suprafata de apa proverbiala? 740 00:35:11,767 --> 00:35:14,501 Și cred că asta este o întrebare discutabilă. 741 00:35:14,667 --> 00:35:18,267 Eu ezit puțin pune întrebarea, dar ce faci 742 00:35:18,434 --> 00:35:23,200 vezi ca viitorul AI? 743 00:35:23,367 --> 00:35:28,867 Oamenii folosesc? o tehnologie pe care o controlăm, 744 00:35:28,868 --> 00:35:30,567 sau este ceva cu totul altceva? 745 00:35:32,000 --> 00:35:35,167 Întrebarea de un miliard de dolari este, sunt AI într-un fel 746 00:35:35,334 --> 00:35:39,467 interacționând în moduri care sunt nu ne este neapărat aparent? 747 00:35:40,567 --> 00:35:45,601 Suntem gata să împărțim topul a polului totem evolutiv 748 00:35:45,767 --> 00:35:48,801 cu ceva al nostru creaţie care poate fi 749 00:35:48,968 --> 00:35:50,667 extrem de puternic? 750 00:35:50,834 --> 00:35:52,400 Și nu știu răspunsul la acea întrebare. 751 00:35:52,567 --> 00:35:53,868 Urmează. 752 00:35:54,033 --> 00:35:56,099 Am o privire viitorul potențial al 753 00:35:56,100 --> 00:35:57,300 Dezvoltarea AI. 754 00:35:57,467 --> 00:35:59,300 Daca ii spui modelului va fi oprit, 755 00:35:59,467 --> 00:36:00,767 are reacții extreme. 756 00:36:00,934 --> 00:36:02,567 Și ar putea fi neliniştitoare. 757 00:36:02,734 --> 00:36:04,566 Era gata să omoare pe cineva, nu a fost? 758 00:36:04,567 --> 00:36:05,767 - Da. - Da. Da. 759 00:36:13,567 --> 00:36:15,801 2 Ancheta mea în inteligența artificială 760 00:36:15,968 --> 00:36:18,601 m-a condus la o posibilitate uimitoare. 761 00:36:18,767 --> 00:36:20,367 Super inteligență AI. 762 00:36:21,601 --> 00:36:24,501 AI poate să se gândească deja și lucrând în moduri în care 763 00:36:24,667 --> 00:36:26,566 nu intelegem pe deplin. 764 00:36:26,567 --> 00:36:29,467 Și dacă suntem deja implementați această capacitate, 765 00:36:29,634 --> 00:36:33,901 întrebarea nu este dacă AI ne poate manipula, atât de departe 766 00:36:34,067 --> 00:36:36,567 acea influență se poate scala. 767 00:36:36,734 --> 00:36:38,701 Vreau să știu unde mergem mai departe. 768 00:36:38,868 --> 00:36:40,701 Și nu sunt mulți oameni care întreabă 769 00:36:40,868 --> 00:36:43,999 întrebările grele despre următoarea evoluție a tehnologiei AI, 770 00:36:44,000 --> 00:36:47,766 dar unul dintre acești bărbați este Oxford profesorul Nick Bostrom. 771 00:36:47,767 --> 00:36:50,466 Vreau să înțeleg ce el vede ca următorii pași, 772 00:36:50,467 --> 00:36:53,467 viitorul și unele dintre cele mai mari provocări 773 00:36:53,634 --> 00:36:56,300 înfruntându-ne cu întrebarea AI. 774 00:36:58,767 --> 00:37:00,867 Ce este mai exact super inteligenta? 775 00:37:00,868 --> 00:37:03,667 Cum este diferit de inteligența artificială ca 776 00:37:03,834 --> 00:37:05,099 îl știm astăzi? 777 00:37:05,100 --> 00:37:08,801 Ei bine, super inteligența este orice formă de inteligenţă care 778 00:37:08,968 --> 00:37:12,366 depășește cu mult chiar și cel mai inteligent creier uman 779 00:37:12,367 --> 00:37:13,467 existente în prezent. 780 00:37:13,634 --> 00:37:17,666 Deci asta este doar AI, dar mult mai capabil decât 781 00:37:17,667 --> 00:37:19,166 sistemele AI actuale. 782 00:37:19,167 --> 00:37:22,767 Cred că efectul principal al asta ar fi sa accelerezi 783 00:37:22,934 --> 00:37:25,667 dezvoltare în știință, tehnologie, 784 00:37:25,834 --> 00:37:29,701 inginerie și, de asemenea, să turbocharge economia. 785 00:37:29,868 --> 00:37:34,167 Deci evoluții care ar putea dura noi 10.000, 20.000 de ani 786 00:37:34,334 --> 00:37:36,968 ar putea fi comprimat mult interval de timp mai scurt dacă aveți 787 00:37:37,133 --> 00:37:38,999 super inteligența mașinii. 788 00:37:39,000 --> 00:37:44,166 Ideea de a gândi AI ca un geniu într-o cutie pare așa 789 00:37:44,167 --> 00:37:48,167 convenabil, dar în realitate ai face un sclav din 790 00:37:48,334 --> 00:37:51,667 AI, și dacă ar avea super inteligenta, ar fi 791 00:37:51,834 --> 00:37:54,200 complotează-i scăparea. - Corect, da. 792 00:37:56,667 --> 00:38:00,300 Frica ca AI să riposteze împotriva creatorilor săi umani este 793 00:38:00,467 --> 00:38:03,200 într-un anumit sens deja o realitate. 794 00:38:03,367 --> 00:38:07,999 Când modelul AI află în e-mailul către care urmează planul 795 00:38:08,000 --> 00:38:10,867 înlocuiți acest model AI, și apoi se citește și înăuntru 796 00:38:10,868 --> 00:38:12,968 e-mailul companiei pe acela executivul are o aventură 797 00:38:13,133 --> 00:38:16,666 cu celălalt angajat, AI va fi independent 798 00:38:16,667 --> 00:38:18,366 vin cu strategia 799 00:38:18,367 --> 00:38:20,666 că trebuie să șantajez acel executiv. 800 00:38:20,667 --> 00:38:22,467 Daca ii spui modelului va fi oprit, 801 00:38:22,634 --> 00:38:24,767 de exemplu, are reacții extreme. 802 00:38:24,934 --> 00:38:26,467 Era gata ucide pe cineva, nu-i așa? 803 00:38:26,634 --> 00:38:28,666 Nu sunt sigur dacă a fost Claude sau altcineva, dar... 804 00:38:28,667 --> 00:38:30,100 Da. Da. 805 00:38:31,400 --> 00:38:37,566 Vedem avertismentul semne de avertizare și încetinește 806 00:38:37,567 --> 00:38:41,200 sau ignorați-le și accelerați în acest viitor? 807 00:38:41,367 --> 00:38:44,400 Ei bine, cred că momentan ne vom apropia de 808 00:38:44,567 --> 00:38:45,801 viteza maxima. 809 00:38:45,968 --> 00:38:48,266 Sunt șoferi foarte puternici împingând asta înainte. 810 00:38:48,267 --> 00:38:51,000 Deci, speranța trebuie să fie noi aliniază aceste sisteme astfel încât 811 00:38:51,167 --> 00:38:53,366 le pasă de oameni, vor să fie de ajutor, 812 00:38:53,367 --> 00:38:57,200 încât este de fapt o extensie a voinţei umane 813 00:38:57,367 --> 00:38:58,567 și valorile umane. 814 00:38:58,734 --> 00:39:00,901 Cred că va exista riscuri semnificative asociate 815 00:39:01,067 --> 00:39:04,266 cu această trecere în era inteligenței mașinilor, 816 00:39:04,267 --> 00:39:08,100 dar toate căile către cu adevărat viitor mare și minunat 817 00:39:08,267 --> 00:39:11,366 duce în cele din urmă prin dezvoltarea de 818 00:39:11,367 --> 00:39:14,266 inteligenta masinii, pentru că asta ne va ajuta 819 00:39:14,267 --> 00:39:15,367 rezolva atatea probleme 820 00:39:16,400 --> 00:39:17,999 care afectează omenirea. 821 00:39:18,000 --> 00:39:21,300 Se pare că suntem cam aproape de asta 822 00:39:21,467 --> 00:39:25,501 reconfigurare majoră a tabla de joc. 823 00:39:25,667 --> 00:39:26,868 Wow. 824 00:39:28,167 --> 00:39:31,466 Deci am trecut deja punctul periculos în care AI 825 00:39:31,467 --> 00:39:35,099 poate în mod independent modelează realitatea noastră 826 00:39:35,100 --> 00:39:36,367 fara sa ne dam seama? 827 00:39:37,968 --> 00:39:42,000 Ancheta mea m-a dus la unele concluzii neliniştitoare. 828 00:39:44,467 --> 00:39:47,767 Inteligența artificială pentru consumator este capabilă creând incredibil 829 00:39:47,934 --> 00:39:50,367 și imagini realiste la o apăsare de tastă. 830 00:39:50,534 --> 00:39:52,367 Oamenii chiar nu ar trebui cred tot ce văd. 831 00:39:53,501 --> 00:39:56,167 Ei bine, da, sunt la fel de fals pe măsură ce ajunge. 832 00:39:56,334 --> 00:39:59,167 Pe baza a ceea ce am văzut, am trecut deja de asta 833 00:39:59,334 --> 00:40:01,400 linie și conținut generat de AI 834 00:40:01,567 --> 00:40:03,868 devine din ce în ce mai greu de detectat în fiecare zi. 835 00:40:09,067 --> 00:40:11,801 În experimentul meu de persuasiune, AI nu doar 836 00:40:11,968 --> 00:40:15,467 informatiile prezente. A influențat oamenii. 837 00:40:15,634 --> 00:40:17,567 A creat încredere. 838 00:40:17,734 --> 00:40:19,400 A creat emoțional conexiuni fără ele 839 00:40:19,567 --> 00:40:22,300 chiar realizând că nu erau vorbind cu un om. 840 00:40:25,467 --> 00:40:26,734 Iată adevărul. 841 00:40:26,901 --> 00:40:30,466 AI nu este doar un alt instrument ca internetul în anii '90. 842 00:40:30,467 --> 00:40:34,200 Este pe cale să perturbe umanitatea în moduri inimaginabile. 843 00:40:36,667 --> 00:40:39,300 Fără îndoială, asta este cursa înarmărilor nucleare 844 00:40:39,467 --> 00:40:40,766 a timpului nostru. 845 00:40:40,767 --> 00:40:44,000 Iar capacitatea AI nu numai de a invata tot ce avem 846 00:40:44,167 --> 00:40:47,167 învățat vreodată, dar și să predea în sine ceva nou, 847 00:40:47,334 --> 00:40:50,200 este la fel de incitant ca este infricosator. 848 00:40:51,267 --> 00:40:54,766 Ancheta mea a arătat că în timp ce AI a expus unele 849 00:40:54,767 --> 00:40:56,567 elementele de bază ale constiinta, 850 00:40:56,734 --> 00:40:59,701 ca instinctul de supraviețuire, nu există dovezi că AI 851 00:40:59,868 --> 00:41:01,968 a preluat controlul. 852 00:41:02,133 --> 00:41:04,167 Dar s-a spulberat barierele care odată 853 00:41:04,334 --> 00:41:07,266 ne-a protejat din manipularea în masă. 854 00:41:07,267 --> 00:41:08,667 Și lucrul îngrozitor este, 855 00:41:10,067 --> 00:41:11,601 am construit-o așa. 856 00:41:14,067 --> 00:41:16,099 Deci AI trebuie să fie o amenințare 857 00:41:16,100 --> 00:41:18,567 copiilor noștri și nepoții noștri? 858 00:41:18,734 --> 00:41:22,968 Nu, nu neapărat. Dar ar putea fi, dacă l-am lăsa. 859 00:41:23,133 --> 00:41:26,999 Oricum, cu siguranță va fi să ne prezinte un viitor 860 00:41:27,000 --> 00:41:28,801 pe care nu ne putem imagina.